Tổ chức của SS trải qua nhiều thay đổi trong từng thời kỳ. Trong giai đoạn Thế chiến II (1939-1945), SS được cho là "nhà nước trong một nhà nước," có cơ cấu như sau:

• Thủ lĩnh: Heinrich Himmler (1929–1945), Karl Hanke (1945).
• Thủ lĩnh SS và Cảnh sát: chỉ huy những đơn vị SS khác nhau trên một vùng rộng, tương tự như Xứ ủy của Đảng Quốc xã.
• Tổng hành dinh SS: được chia ra thành 12 cơ quan điều hành mọi hoạt động của SS, như Cơ quan Trung ương An ninh Đế chế (RSHA), Cục Kinh tế và Hành chính (WVHA) dưới quyền của Cục Kinh tế và Hành chính.
• Thủ lĩnh Danh dự SS: phong cho cấp lãnh đạo chính quyền, như Bormann, Henlein, Ribbentrop, Weizsäcker...

Theo chiều ngang, SS được chia ra thành từng bộ phận chuyên biệt, như:

• SS Tổng quát (Allgemeine SS).
• SS Kỵ binh (Reiter-SS).
• Liên minh Đầu lâu (Totenkopfverbände, gọi tắt SS-TV), ban đầu gồm những đơn vị cấp trung đoàn phụ trách các trại tập trung, đến năm 1944 gồm có 3 sư đoàn, các trại tập trung được giao lại cho WVHA.
• Đội Đặc nhiệm (Einsatzgruppen), gồm 4 đội A, B, C và D.
• SS Vũ trang (Waffen-SS): do Heinrich Himmler làm tư lệnh.
• Cảnh sát Trật tự (Ordnungspolizei, gọi tắt Orpo): quy tụ cảnh sát các cấp trung ương và địa phương, Cảnh sát Đường sắt, Cảnh sát Đường thủy, bảo vệ tại các cơ quan...